Acquired — 黄仁勋深度访谈
主持人:Ben Gilbert、David Rosenthal
发布时间:2023-10-15
时长:约 3 小时
录制地点:NVIDIA 总部
主题:RIVA 128 的孤注一掷 · CUDA 平台 的十七年坚持 · 深度学习转向 · 扁平管理 · 用 30 年视角建公司
这是 黄仁勋 迄今为止最坦诚的一次访谈。Acquired 的两位主持人为做 NVIDIA 系列足足研究了 500 多个小时,飞到圣克拉拉总部坐下来跟他聊了三个小时。录完之后他们感叹:"原来主角确实比我们知道得多。"
下面不按时间顺序,而是按黄仁勋反复回到的几个主题来整理他的核心论述。
一、RIVA 128:一次"没有 Plan B"的 tape-out
1997 年,NVIDIA 的口袋里只剩六个月的现金。前两代芯片 NV1、NV2 走了弯路——押注曲面和 forward texture mapping,没做三角形、也没做 Z-buffer——而 Microsoft 已经推出 DirectX,30 多个竞争对手涌了进来。黄仁勋和团队决定把公司的最后一分钱全部押在 RIVA 128 上:一次 tape-out,必须完美,因为不完美就破产。
传统做法是先流片、再调软件、再改 bug、再流片——他们没有这个时间。于是他们做了三件事:第一,买下一家正要倒闭的仿真机公司 ICOS 的全部库存,用仿真器完整跑完驱动栈和所有游戏;第二,在硅片还没回来前就把芯片当作"完美"对待,直接下单量产,同时启动市场活动和开发者关系;第三,做到"物理极限"——用最大的芯片、最快的内存、DirectX 全部支持,"世上没有任何东西可以比它更快"。
黄仁勋在访谈里用一句话总结这种心态:
"We got one shot. I know it's going to be perfect, because if it's not, we'll be out of business. So let's make it perfect."
"我们只有一发子弹。我知道它必须是完美的,因为如果不完美,我们就破产了。那就让它变完美。"
关键点在于:Ben 把这理解成"赌上整个公司"(Bet the Company),但黄仁勋纠正了——这不是赌博,而是把未来所有的风险提前做掉。
"When you push your chips in, what you're really doing is—when you bet the farm, you're saying, I'm going to take everything in the future, all the risky things, and I pull in in advance. To this day, everything that we can prefetch, everything in the future that we can simulate today, we prefetch it."
RIVA 128 的做法——仿真器先跑完整软件栈、一次流片、直接量产——今天已经是全行业的标准。"为什么要做两遍你本来可以一遍做完的事?"这是黄仁勋第一次清晰表达他的第一性原理工程学(第一性原理)。
二、AlexNet 的启示:我们发现了一个"通用函数逼近器"
CUDA 平台 早在 2006 年前后就存在了,最初是给科学家做分子动力学、CT 重建、地震处理、量子化学的。NVIDIA 一直和研究者泡在一起,是"天生的研究型公司"。
AlexNet 在 2012 年横空出世的时候,黄仁勋的第一反应不是兴奋,而是追问"为什么"。
"When a new software technology or a new algorithm comes along and somehow leapfrogs 30 years of computer vision work, you have to take a step back and ask yourself, but why? Fundamentally, is it scalable? And if it's scalable, what other problems can it solve?"
"当一个新的算法突然间把过去 30 年的计算机视觉工作甩在身后,你必须退一步问自己:为什么?它本质上是不是可扩展的?如果可扩展,它还能解决什么问题?"
他从第一性原理推演出一条清晰的逻辑链:
1. 深度学习一层一层训练,没有理由不能训练得很深;
2. 只要有足够多的样本数据,就能学到一个预测函数;
3. 换句话说,我们"发现了一个通用函数逼近器"(universal function approximator);
4. 而世界上有大量问题,人根本不关心因果性,只关心可预测性。
他连续举了几个例子——我不在乎你为什么偏爱这个牌子的牙膏,我只需要预测它;我不关心为什么买热狗的人会同时买番茄酱和芥末,我只需要预测它;预测电影、预测音乐,甚至预测天气,我们并不需要真的理解热力学,只需要知道今天要不要穿毛衣。
"For a lot of problems, we don't care about the causality. We just care about the predictability of it."
"对大量问题来说,我们不关心因果性,只关心可预测性。"
一旦接受这个结论,剩下的问题就只是:我们有没有勇气把筹码推上去? 此后 NVIDIA 开始系统性地拜访全世界的 AI 研究者——Yann LeCun、Andrew Ng、Geoffrey Hinton、Goodfellow、Ilya Sutskever——问每个人:"我们怎么帮你把工作推到下一个层次?"第一台 DGX 他亲自送到了 OpenAI。
三、CUDA 平台 与 30 年公司 的赌注
黄仁勋纠正了一个常见的误解——很多人以为 NVIDIA 是先做技术再变平台,但他说:"从第一天起,我们就是一家平台公司。"
NVIDIA 最早的架构叫 UDA(Unified Device Architecture),CUDA 就是 UDA 的 C。1993 年公司成立时,他们甚至有一个叫做 Direct NV 的 API——1995 年 Microsoft 的 DirectX 出来之前,Direct NV 就已经存在。
"We are the only accelerator on the planet where every single accelerator is architecturally compatible with the others. At 30 years, it's all completely compatible. That's the only unnegotiable rule in our company. Everything else is negotiable."
"我们是地球上唯一一家所有加速器之间都架构兼容的公司。30 年来,所有芯片都完全兼容。这是公司里唯一不可谈判的铁律,其他的都可以谈。"
这条铁律的代价是巨大的。在 CUDA 早期,市场根本不理解它——股价因此跌到只剩 20 亿美元左右,华尔街持续质疑。
"We traded down at about a couple of 2 to 3 billion in market value for a while because of the decision we made in going into CUDA and all that work. Your belief system has to be really, really strong. You have to really, really believe it and really, really want it. Otherwise, it's just too much to endure."
"因为 CUDA 这个决定,我们的市值一度跌到两三十亿美元,跌了很久。你的信念系统必须非常、非常强大。你必须真的真的相信它,真的真的想要它。否则这种折磨你根本承受不了。"
这个"信念系统"的本质是——你在下注未来还不存在的市场。NVIDIA 称之为 "zero billion dollar market"(零亿美金市场)。
"It's our way of saying there's no market yet, but we believe there will be one. Usually when you're positioned there, everybody's trying to figure out why are you here."
"这是我们的说法,意思是:这个市场还不存在,但我们相信它会存在。通常当你站在那里的时候,所有人都在问你为什么来这儿。"
当他们进入汽车业务时,有 CTO 对他说"汽车承受不了蓝屏死机",他回答:"没有人承受得了蓝屏死机,但这不改变每辆车终将是软件定义汽车这个事实。"15 年后,他是对的。
四、收购 Mellanox:站到苹果掉落的那棵树下
在所有人都把 NVIDIA 看作"芯片公司"的时候,黄仁勋已经意识到数据中心才是未来,而定义数据中心的不是处理器,而是网络。
"A data center is distinguished from a desktop computer versus a cell phone, not by the processor in it. It's not the processing chip that describes it, but it's the networking of it."
"数据中心之所以不同于台式机和手机,不是因为里面那颗处理器,而是因为它的网络架构。"
更重要的观察是:超大规模云(hyperscale)是把很多用户虚拟化到一台计算机上——而 AI 是反过来的,它要把一个训练任务分布到数百万个处理器上。商品化的以太网对 Hadoop 和搜索查询足够好,但对分布式训练大模型远远不够。
所以 Mellanox 对 NVIDIA 来说不是一次战术收购,而是整个公司身份的迁移——从芯片公司变成数据中心公司。很多人事后评价这是科技史上最好的收购之一,黄仁勋自己也同意:"因为它离我们平常做的事太远了,所以所有人都很意外。"
关于"看到机会",他讲了一个他最爱的比喻:
"You want to position yourself near opportunities. You don't have to be that perfect. You want to position yourself near the tree. Even if you don't catch the apple before it hits the ground, so long as you're the first one to pick it up."
"你要让自己站在机会旁边。你不需要那么完美。你要站在那棵树下面。就算你没接住掉下来的苹果,只要你是第一个捡起它的人就行。"
这是 Ben 补了一句 Buffett 和 Munger 的经典话:"It's better to be approximately right than exactly wrong."
五、扁平管理:公司应该长得像它要造的东西
这是整个访谈最有启发性的一段。黄仁勋有 40+ 个直接下属,不做 1-on-1,不做传统层级汇报。他说这不是因为 NVIDIA 特别,而是因为大部分公司的组织架构是错的。
"Your organization should be the architecture of the machinery of building the product. That's what a company is. And yet, everybody's company looks exactly the same, but they all build different things. How does that make any sense?"
"你的组织应该就是你造产品的那台机器的架构。公司的本质就是这个。但每家公司的组织架构看起来都一模一样,而他们造的东西完全不一样。这怎么可能说得通?"
他接着打了一个漂亮的比喻:"做炸鸡、翻汉堡、和做扬州炒饭是不一样的——为什么流程要一模一样?"
在 NVIDIA 里,组织更像一个计算堆栈:最底层是架构,然后是芯片、软件、上面是各种模块。每一层的每个模块是人,谁最擅长跑那个模块谁就是"pilot in command",跟职位高低无关。
公司内部有一句铁律:"Mission is the boss."
"We figure out what is the mission, and we go wire up the best skills, the best teams, and the best resources to achieve that mission. It cuts across the entire organization in a way that doesn't make any sense, but it looks a little bit like a neural network."
"我们搞清楚这个使命是什么,然后把最好的技能、团队和资源接起来去完成它。它穿越整个组织,看起来没道理,但其实长得有点像神经网络。"
关于为什么不开 1-on-1(不开 1-on-1),他的理由是——信息的权力。
"In a command and control system, the person who you report to has more power than you. The reason why they have more power than you is because they're closer to the source of information than you are."
"在一个命令与控制的系统里,你的上司比你有权力,是因为他们离信息源更近。"
在 NVIDIA 里,信息是在团队层面同时传递给所有人的。他举了当天早上刚开的机器人会议:屋里有刚毕业的大学生,也有三位副总裁和两位 e-staff。当大家推理出一个决定的时候——
"Nobody has more power than anybody else. The new college grad learned at exactly the same time as the e-staff."
"没有人比任何人拥有更多权力。刚毕业的大学生和 e-staff 学到这个决定的那一刻是同一秒。"
这是他定义领导力的方式——你能坐那个位置,不是因为你掌握了特权信息,而是因为你能推理问题、能帮别人成功。
六、做 30 年公司:面向未来播种
Ben 问他:NVIDIA 一年出两代产品的节奏让人想到"Apple 一年发两部 iPhone"一样不可思议——为什么你能做到?
黄仁勋答的并不是"流程管理",而是视野。他读过很多商业书——最爱的是 Clay Christensen 的系列和 Andy Grove——但他强调:读书不是为了模仿,而是为了被启发。
"You're supposed to be inspired and learn from everybody else. The education's free. When somebody talks about a new product, you're supposed to go listen to it. You're not supposed to ignore it."
他说 CEO 最重要的工作就是站在树下等苹果:
"Our job as CEO is to look around corners and to anticipate where will opportunities be someday. Even if I'm not exactly sure what and when, how do I position the company to be near it, to be just standing near under the tree, and we can do a diving catch when the apple falls."
"我们 CEO 的工作就是看向未来的转角,预判机会会在哪里出现。即使我不完全确定是什么、什么时候,我也要把公司放到它附近,站到那棵树下面,当苹果掉下来的时候扑过去接住。"
NVIDIA 进入数据中心的路径其实是从 GeForce NOW(云游戏)开始的——17 年前他就意识到"显卡被显示器绑在桌子上"是一个根本性的商业限制。接下来是远程图形工作站,再是 CUDA+GPU 的超级计算机——三个数据中心产品一路铺垫,才有了今天 AI 爆发时 NVIDIA 的"站位"。
"You want to pave the way to future opportunities. You can't wait until the opportunity is sitting in front of you for you to reach out for it, so you have to anticipate."
七、痛苦与磨难:如果能重来一次我不会创业
访谈的最后一段,是我见过最打动人的 CEO 独白之一。David 问:如果你今天 30 岁,带着两个最聪明的朋友去 Denny's 吃饭讨论创业,你会做什么?
"I wouldn't do it. Building a company and building NVIDIA turned out to have been a million times harder than I expected it to be, than any of us expected it to be. If we realized the pain and suffering, just how vulnerable you're going to feel, and the challenges that you're going to endure, the embarrassment and the shame, and the list of all the things that go wrong—I don't think anybody would start a company. Nobody in their right mind would do it."
"我不会做。造一家公司、造 NVIDIA 比我想象的难一百万倍,比我们所有人想象的都难。如果当年我们真的意识到这些痛苦和折磨、那种脆弱、那些挑战、那些难堪与羞耻、所有会出错的事——我不认为有人会创业。任何脑子正常的人都不会做这件事。"
然后他揭示了企业家的"超能力":
"I think that's the superpower of an entrepreneur. They don't know how hard it is, and they only ask themselves how hard can it be? To this day, I trick my brain into thinking, how hard can it be? Because you have to."
"我觉得这就是企业家的超能力——他们不知道这到底有多难,只问自己'能有多难?'。直到今天,我还在骗自己的脑子,告诉它'能有多难?',因为你必须这样。"
支撑这个"自欺"的是一圈永远不离开的人——Chris Malachowsky 在公司 30 年了,Jeff Fisher 30 年,Dwight 30 年,Curtis Priem 30 年,Jonah 和 Brian 25 年以上……还有 Sutter Hill 的 Tench Coxe 和 Sequoia 的 Mark Stevens,两位最早的 VC 直到今天还在董事会上。
"I'm surrounded by these people that never one time gave up, and they never one time gave up on me. That's the entire ball of wax."
"我被一群从未放弃过、也从未放弃过我的人围绕着。这就是一切的一切。"
对于 NVIDIA 经历过的几次 80% 以上的股价暴跌,他说:
"80% fall, it's an extraordinary thing no matter how you look at it. It's like when your stock price gets hit, it's embarrassing no matter how you think about it. There are no good answers to any of that stuff. The CEOs are humans and companies are built of humans. These challenges are hard to endure."
"80% 的下跌,不管你怎么看都是一件极端的事。股价被打下来的时候,你会觉得难堪,这件事没法不难堪。对这些东西没有什么好答案。CEO 是人,公司是由人组成的,这些挑战就是难熬。"
他最怕的不是亏钱,而是让员工失望:
"The greatest fear is that you let them down. You want them to build a great life as well as help you build a great company, be able to build a great career. You want them to enjoy all of that."
八、AI 的工作观:生产力带来繁荣,繁荣创造新岗位
访谈快结束时,Ben 问了一个时代之问:AI 越来越强,会夺走多少工作?
黄仁勋的回答是一个典型的乘数逻辑:
"The first thing that happens with productivity is prosperity. When the companies get more successful, they hire more people because they want to expand into more areas."
"生产力提升带来的第一件事是繁荣。公司越成功,就越想扩张到新领域,就雇更多人。"
他说,如果你以为生产力提高 = 需要更少人,那是因为"那家公司没有更多的想法了",但对大部分公司来说根本不是这样——药物研发、交通、零售、娱乐、科技,每一个行业都还有大量想法等着被追。
"As long as we believe that there are more areas to expand into, the prosperity of the industry which comes from improved productivity results in hiring more people, more ideas."
最后他说了一句话,也是这期访谈被引用最多的一句:
"Humans have infinite ambition. If a company is more profitable, they tend to hire more people to do more. Everything we do will be easier, but we'll end up doing more."
"人有无尽的野心。一家公司越赚钱,就越会雇更多人去做更多事。我们做的每件事都会变容易,但我们最终会做得更多。"
尾声:这是我的最后一份工作
David 问他什么时候意识到这是"最后一份工作"时,他笑着说:
"I don't change jobs. Until I'm fired, this is my last job. This is it."
"我不换工作。除非被开除,这就是我最后一份工作。就这样。"
他接着说,如果当年不是 Chris 和 Curtis 说服他创立 NVIDIA,他今天一定还在 LSI Logic——因为他"从不换公司"。他谈到 LSI Logic 是"把芯片设计抬升到高级语言"这场革命的震中,改变了他对计算的理解;他谈到 LSI 的 CEO Wilf Corrigan 当年给 Don Valentine 打电话说"投这个孩子",让他从 0 开始走上创业这条路。
关于 Don Valentine,他记得最清楚的一句话是:"If you lose my money, I'll kill you."(如果你弄丢了我的钱,我就杀了你。)然后每次 NVIDIA 在报纸上被夸,Don 就会用蜡笔在上面写"Good job, Don.",把报纸寄给他。
金句集
- "I know it's going to be perfect, because if it's not, we'll be out of business." — 关于 RIVA 128
- "Universal function approximator." — 关于他看懂 AlexNet 的瞬间
- "Mission is the boss." — 扁平管理的核心原则
- "It's better to be approximately right than exactly wrong." — 引自 Buffett,被他当座右铭
- "You want to position yourself near the tree." — 机会论
- "How hard can it be?" — 他每天早上欺骗自己大脑的句子
- "Humans have infinite ambition." — 关于 AI 与工作的终局
- "Until I'm fired, this is my last job." — 关于承诺
原文出处:Acquired Podcast — NVIDIA CEO Jensen Huang (2023-10-15)